LayerRoute: Input-Conditioned Adaptive Layer Skipping via LoRA Fine-Tuning for Agentic Language Models
LayerRoute: 通过 LoRA 微调实现输入条件自适应层跳过
🧭 Agent 推理加速 · 自适应层跳过 ★ 深度解读
Accenture
用 1.1M 参数教会 0.5B 模型按步型跳层：工具调用省 15.2% FLOPs，规划几乎不跳，质量不降反升。
📌 工作参考价值（4 点）
- Agent 推理系统加速：在工具调用占比高的场景（如电商客服中的查订单、查库存），可对 LLM 使用 LayerRoute 适配，保持规划能力同时大幅降低工具步驟计算量，直接提升吞吐。
- 不同请求类型动态深度分配：推荐/Agent 场景中，简单确定性请求与复杂推理请求可复用本方法——用极少量参数为每层配路由器 + LoRA，按输入类型动态跳过若干层，实现“按需深度”。
- 偏置初始化的工程技巧：对分层路由任务，有意识将中间层初始化为“跳过”状态（bias 负值），可打破对称，让梯度信号快速区分层的重要性，避免所有门控全开。
- 门正则化防止平凡解：任何可学习门控机制（如多分支动态路由、MoE 专家选择）都应加入类似正则项，否则模型倾向于保持所有通路开启，丧失动态选择能力。